‫"مسلسلات NETFLIX الوثائقية الأصلية"‬
‫مواطنو "أمريكا"...‬
‫لست الرئيس "ترامب".‬
‫معكم "تشارلي وارزيل" من "بازفيد نيوز".‬
‫وأؤكد لكم أن المستقبل مرعب للغاية.‬
‫"إنتاج (بازفيد نيوز)"‬
‫"مستقبل المحتوى المزيف"‬
‫أظن أن التكنولوجيا‬ ‫أداة محايدة بالنسبة للقيم.‬
‫إنها جيدة بقدر ما نريدها....‬
‫"(تشارلي وارزيل)، كاتب تقني أول"‬
‫وسيئة بقدر ما نجعلها.‬
‫إنني أبلّغ عن أشياء غريبة جداً‬ ‫تحدث عادةً على الإنترنت.‬
‫"صور جنسية بين بشر وحيوانات على (يوتيوب)،‬ ‫فضائح تتعلق بالخصوصية على (فيسبوك)،‬
‫جدل كبير حول أيقونة البراز"‬
‫ولكنني أبحث أيضاً‬ ‫في ارتفاع التحرش عبر الإنترنت،‬
‫والجانب المظلم من الإنترنت.‬
‫إنني أفحص الكثير من تلك الأخبار الزائفة‬
‫وأعتبرها كتغير المناخ.‬
‫ولكن الفرق بين التغير المناخي‬ ‫وأزمة المعلومات المضللة‬
‫هو أن الأزمة كمّية للغاية.‬
‫يمكنك تتبع ازدياد درجة حرارة الكوكب.‬
‫يمكنك مراقبة كل هذه الأمور.‬
‫هذه التكنولوجيا جديدة جداً‬ ‫لدرجة أنه ما من طريقة لتحديد‬
‫كم هي سائدة ومقدار انتشارها.‬
‫يمكن للناس كتابة قصص زائفة وتنتشر سريعاً،‬ ‫وهذا نقص أمانة من نوع ما.‬
‫ماذا يحدث إن أمكنك التلاعب بوجه الرئيس‬
‫وصنع مقطع مصور حيث يعلن فيه‬ ‫الحرب النووية على "كوريا الشمالية"؟‬
‫مستقبل هذا كارثي محتمل.‬
‫إننا على مشارف حقبة‬ ‫يمكن لأعدائنا فيها أن يصوروا‬
‫"إعلان الخدمة العامة للأخبار الزائفة"‬
‫أي أحد يقول أي شيء في أي وقت.‬
‫حتى لو لم يقل هذه الأشياء قط.‬
‫ينتشر التلاعب بالمرئيات والسمعيات‬ ‫الذي يعصف بالإنترنت هذه الأيام‬
‫لأنه يمتد ما بين التسلية والبؤس المباشر.‬
‫على سبيل المثال،‬ ‫يمكنهم جعلي قول أشياء مثل،‬
‫"الرئيس (ترامب) حقير تماماً."‬
‫والآن، كما ترون،‬ ‫محال أن أقول مثل هذه الأشياء.‬
‫ليس في إعلان عام على الأقل،‬ ‫ولكن شخصاً آخر قد يفعل.‬
‫شخصاً مثل "جوردان بيل".‬
‫هذا وقت عصيب.‬
‫أظن أننا رأينا خلال السنة الماضية‬
‫المزيد والمزيد من بدايات ملامح المستقبل.‬
‫لدي الكثير من الأسئلة عن الأشخاص‬ ‫الذين يصنعون تلك الأشياء.‬
‫إذاً، أين وضعنا من التلاعب السمعي والبصري؟‬
‫وفي من تؤثر تلك التكنولوجيا حقاً؟‬
‫"مقر (إندستريال لايت آند ماجيك) الرئيسي"‬
‫يعجبني العيش في عالم حيث يمكنني تبين الفرق‬
‫بين الحقيقة والخيال.‬
‫رغم أنه مهنياً‬
‫"(جون نول)‬ ‫خبير المؤثرات البصرية لـ(ستار وورز)"‬
‫أعمل في مجال حيث نحاول صنع صورة مقنعة‬
‫تنقلك‬
‫"(ستار وورز إيبسود ‬‫ثري‬‫)"‬
‫إلى أزمنة وأماكن مختلفة.‬
‫"(أفاتار) 2009"‬
‫"(بايريتس أوف ذا كاريبين:‬ ‫ديد مانز تشيست) 2006"‬
‫إنك أسطورة مؤثرات بصرية.‬
‫الشيء المدهش‬
‫أنك أيضاً مخترع "فوتوشوب".‬
‫إنني مندهش من انتشاره الواسع،‬
‫أو تحوله إلى مصطلح معروف.‬
‫ألديك أي أسف حيال هذه التكنولوجيا؟‬
‫أتمنى حقاً لو كان هناك‬ ‫استخدامات غير أخلاقية أقل،‬
‫ولكن أعتقد أن الأمر يعود إلى المجتمع‬ ‫بشكل أكبر في الضغط على الناس‬
‫لتطبيق الأخلاقيات المناسبة مع هذه الأدوات.‬
‫استخدم "جون" أكثر من الـ"فوتوشوب"‬
‫بعد وفاة ممثل "ستار وورز"‬ ‫"بيتر كوشينغ" عام 1994.‬
‫"(ستار وورز:‬‫ إيبسود فور - ‬‫ أنيو هوب) 1977"‬
‫أريد الحديث قليلاً عن إعادة الصنع الرقمية‬ ‫لشخصية "غراند موف تاركين"،‬
‫وإعادة شخص قد مات‬ ‫إلى الحياة.‬
‫بنينا نموذجاً رقمياً مفصلاً للغاية‬ ‫لوجه "تاركين".‬
‫ثم خضنا مرحلة‬ ‫من المقارنة المستمرة لنموذجنا‬
‫مع اللقطات الأرشيفية‬
‫حتى شعرنا أن لدينا تطابقاً جيداً جداً.‬
‫كم سرعة تحرك وتطور ذلك الأمر؟‬
‫ليس سريعاً كفاية.‬
‫- ليس سريعاً كفاية؟‬ ‫- من وجهة نظري.‬
‫لا يمكن للجميع إعادة شخص قد مات.‬
‫"(نيويورك)"‬
‫ولكن ما التكنولوجيا المتاحة‬ ‫للمستخدم العادي؟‬
‫إنني أستخدم هذا البرنامج المجاني.‬
‫وما يفعله أساسياً‬ ‫هو خلق نسخة رقمية من صوتك.‬
‫فأنت تستخدم ميكروفون حاسوبك،‬
‫وتنطق بمجموعة من العبارات المعدة سلفاً‬ ‫التي يخبرك بها.‬
‫"رقص العصفور والطائر المغرد‬ ‫على السياج."‬
‫والآن يمكنني الكتابة في مربع النص‬
‫أي شيء أريده، ويقرأه البرنامج بصوتي.‬
‫ما أرغب في فعله الآن طبعاً‬
‫هو أن أحاول استخدام هذا لأخدع أمي‬ ‫لتظن أنه أنا.‬
‫- مرحباً.‬ ‫- مرحباً، كيف حالك؟‬
‫بخير، كيف حالك؟‬
‫"والدة (تشارلي)"‬
‫أمامي القليل من الوقت. أنا مشغول للغاية.‬
‫أردت الاطمئنان عليك وأتأكد‬ ‫أننا ما زلنا سنتناول العشاء معاً الليلة.‬
‫أجل. الساعة 8:15.‬
‫اتفقنا، جيد.‬
‫- راسليني عندما تصلي.‬ ‫- حسناً.‬
‫- اتفقنا؟‬ ‫- جيد يا "تشارلي"، أشكرك.‬
‫- سعيدة باتصالك.‬ ‫- إنني أفقد الاتصال. أحبك.‬
‫- إلى اللقاء.‬ ‫- أحبك أيضاً. إلى اللقاء.‬
‫لقد نجح الأمر!‬
‫لقد خفت!‬
‫ظننت أن الأمر سيفشل كلياً.‬
‫ظننت أنها ستتساءل: "ماذا يجري؟"‬
‫إنني متحمس للغاية الآن.‬
‫لقد أثبت أنه ليس عليه أن يكون جيداً،‬ ‫بل عليه أن يكون جيداً كفاية‬
‫ليخدع والدتك حرفياً لتظن أنه أنت‬
‫بينما هو حاسوب.‬
‫"(سانتا مونيكا)، (كاليفورنيا)"‬
‫تدريب صوتك أمر مدهش،‬ ‫ولكن الرؤية خير دليل.‬
‫إذاً ما هو موقفنا‬ ‫من المؤثرات البصرية الزائفة؟‬
‫السؤال هو، كيف يمكننا خلق‬
‫"(هاو لي)‬ ‫شريك مؤسس لشركة (بينسكرين)"‬
‫صورة رمزية حقيقية لك‬
‫ليست ثلاثية الأبعاد فحسب،‬ ‫ولكن متحركة أيضاً؟‬
‫تسمح تكنولوجيا "بينسكرين" للمستخدمين‬
‫بخلق صور رمزية رقمية حقيقية‬ ‫للواقع الافتراضي وألعاب الفيديو.‬
‫ترخص العديد من الشركات التكنولوجية‬ ‫برنامجها.‬
‫- دعني أريك سريعاً كيف يعمل.‬ ‫- اتفقنا.‬
‫يمكنك رؤية صورة بلا تعابير لشخص ما‬ ‫على أقصى اليسار.‬
‫يستخدم "هاو" مئات الآلاف‬ ‫من صور أشخاص حقيقين‬
‫ليدرب الحاسوب على تنبؤ‬ ‫كيف ستبدو تعابير الوجه‬
‫على أي وجه.‬
‫كلما ارتكب خطأ، نقول له: "لا" فحسب،‬
‫ثم يتحسن أكثر فأكثر.‬
‫- نريد أن نتنبأ كيف سينجح الأمر معك الآن.‬ ‫- أجل.‬
‫- التقطت صورتك الشخصية...‬ ‫- اجل.‬
‫وأرسلتها لنا.‬
‫- هذه صورة أرسلتها لك منذ أسبوع.‬ ‫- أجل.‬
‫لم يرها الحاسوب تتحرك قط.‬
‫"(كوكي ناغانو)، باحث بشركة (بينسكرين)"‬
‫- أنا لم أرها تتحرك قط.‬ ‫- لم تر وجهي يتحرك قط.‬
‫وبناءً على...‬
‫- قاعدة بيانات من معرفة الوجوه،‬ ‫- صحيح.‬
‫- والتواءات الوجوه،‬ ‫- صحيح.‬
‫تمكن من التنبؤ‬
‫- كيف سوف...‬ ‫- كيف سأتحرك.‬
‫أجل.‬
‫وكل تعبيراتك الرئيسية،‬ ‫وكل شيء بينها حتى.‬
‫وينتج التجاعيد.‬
‫- هكذا يتجعد أنفي. بالتأكيد.‬ ‫- أليس كذلك؟‬
‫- هذا أمر جامح.‬ ‫- أجل.‬
‫إنه حمل ثقيل حالياً، أليس كذلك؟‬
‫لا، التدريب في الواقع‬
‫التدريب مكلف حسابياً،‬
‫ولكن نظرياً، معالجتك يمكن أن تتم مباشرة.‬
‫- إنه من سمات المستقبل إذاً.‬ ‫- أجل، هذا سيحدث.‬
‫اللعنة!‬
‫مما يعيدني إلى التلاعب بالرئيس "ترامب".‬
‫- إليك مقطع فيديو سجلته.‬ ‫- أجل.‬
‫لقد أخذنا صورة واحدة من خطاب ما لـ"ترامب".‬
‫أجل.‬
‫وصنعنا نموذجاً ثلاثي الأبعاد،‬ ‫وأنتجنا كل الأسنان، وكل...‬
‫- يا للروعة!‬ ‫- تعابير الوجه،‬
‫إنه أمر مثير نوعاً ما لأنه يخلق‬ ‫هذه الحركة ثلاثية الأبعاد الحقيقية.‬
‫أجل.‬
‫سوف...‬
‫أحاول تحريك وجهي كثيراً‬ ‫وأتحدث معكم يا رفاق‬
‫عن لا شيء على وجه الخصوص،‬
‫مجرد هراء فارغ.‬
‫يا إلهي!‬
‫عجباً.‬
‫يفكر النظام حقاً‬ ‫في كيف يبتسم "ترامب".‬
‫أجل، بناءً على مظهر وجهه.‬
‫بناءً على شكله، صحيح؟‬
‫أنت متعمق جداً في هذا المجال.‬
‫هل تقول إنك...‬
‫قلق أكثر من أي شخص عادي‬ ‫بشأن سوء الاستخدام المحتمل في المستقبل؟‬
‫هل يؤرق ذلك نومك؟‬
‫هذا ما لطالما فعلته الرسومات الحاسوبية.‬
‫وهذا ما يفعله مجال المؤثرات البصرية.‬
‫وهو صنع أشياء تبدو حقيقية‬
‫لصنع وهم لرواية قصة.‬
‫ولكن ماذا سيحدث‬
‫- لو توصّل الناس العاديون لهذه الإمكانيات؟‬ ‫- أجل.‬
‫هذا هو الجزء المخيف،‬ ‫خصوصاً عندما تفكر في الأمر،‬
‫"أحتاج إلى صورة فحسب،‬ ‫ويمكنني فعل أي شيء أريده‬
‫- ويصبح ثلاثي الأبعاد الآن، إنه حقيقي."‬ ‫- أجل.‬
‫"جون" يتحدث.‬
‫مرحباً يا "جون"، معك "تشارلي".‬
‫"رئيس (تشارلي)"‬
‫مرحباً يا "تشارلي"!‬
‫لقد تلاعبت للتو بوجه "دونالد ترامب"‬ ‫بمجموعة من الذكاء الاصطناعي‬
‫وقد كان أمراً مقلقاً حقاً.‬
‫لقد أخافني الأمر صراحة.‬
‫إنه مثل رواية "عالم جديد رائع".‬
‫أقترح بتواضع أن مصطلح "عالم جديد رائع"‬ ‫ليس في محله.‬
‫حسناً، أجل. لقد قُضي علينا جميعاً.‬ ‫ما رأيك في هذا؟‬
‫من الواضح أننا يجب أن نجد شخصاً ما‬
‫إنسان حقيقي، من المحتمل أنه تأثر بهذا.‬
‫أجل، أظن ذلك.‬
‫- حسناً.‬ ‫- أحسنت عملاً.‬
‫شكراً يا رجل. سأتحدث إليك قريباً.‬
‫"(باراموس)، (نيوجيرسي)"‬
‫حدث الأمر في أبريل عام 2011.‬
‫كنت قد أتممت 21 عاماً لتوي، وبدأت أتلقى‬
‫"ضحية (فوتوشوب)"‬
‫العديد من الرسائل على "فيسبوك"‬ ‫من أشخاص يخبرونني‬
‫أن ثمة صوراً غير مناسبة لي‬ ‫على الإنترنت.‬
‫لذا بحثت عن اسمي ومسقط رأسي‬ ‫وأول صورة ظهرت كانت...‬
‫صورة لي معدلة بـ"فوتوشوب"، كانت رأسي‬
‫وكان باقي جسدي، ولكنه لم يكن صدري.‬
‫لم تكن منتشرة على موقع واحد،‬ ‫بل على مواقع عدة.‬
‫وكانت نفس الصورة على كل المواقع.‬
‫"عاهرات شابات"‬
‫الشيء الوحيد الذي أخبرني قسم الشرطة‬ ‫أن أفعله‬
‫هو أن أتوقف عن البحث عن نفسي‬ ‫وعاجلاً أم آجلاً ستصبح قديمة.‬
‫ما من شيء يمكنهم فعله. فقد كانت‬ ‫على الإنترنت بالفعل، لا يمكنهم إزالتها.‬
‫ثمة قانون يمنع نشر محتوى إباحي‬ ‫من دون علم صاحبه حيث تعيش "كيتي"،‬
‫ولكنه لم يُستخدم قط‬ ‫لإيقاف الصور المعدلة بالـ"فوتوشوب".‬
‫كم عدد المرات التي بحثت فيها عن الصورة؟‬
‫كنت أسهر طوال ساعات الليل،‬
‫أشاهدها وأذهب إلى العمل‬
‫أو الكليّة في الصباح التالي مرهقة للغاية.‬
‫يبدو الأمر وكأنه...‬
‫قد أوقف مسار حياتك.‬
‫دائماً ما كنت أرتدي الملابس المحتشمة.‬
‫أحب الأكمام.‬
‫والملابس المغطاة من الأعلى،‬ ‫ولكن الآن أرتديها أكثر من أي وقت مضى.‬
‫أخبريني عن تأثير هذا في عائلتك.‬
‫التعامل مع بكاء أمي بسبب الأمر‬
‫كان أمراً محزناً في كل مرة.‬
‫ما من شيء يمكنك فعله حقاً حيال ذلك،‬ ‫لأنه كوالدة،‬
‫لم أكن لأتخيل مشاهدة ابنتي تمر بهذا.‬
‫أتذكر أنني سألت والدي، قلت: "سيعرف الجميع‬
‫في محطة الإطفاء الآن، وهذا أمر محرج."‬
‫فقال لي: "إنني فخور بك رغم أي شيء."‬
‫تظن "كيتي" أنها تعلم من كان مرتكب الجريمة.‬
‫شخص ما كانت تعرفه بشكل عرضي ولم تواعده قط.‬
‫ما زالت الصور على الإنترنت حتى اليوم.‬
‫"شاطئ (فينسيا)، (كاليفورنيا)"‬
‫لقد أثرت أقسى نسخة محتملة‬ ‫من هذه التكنولوجيا في حياة "كيتي".‬
‫ولكن تخيلوا كم كان سيسوء الوضع‬ ‫بالنسبة إلى "كيتي"‬
‫إن كانت تلك الصورة الثابتة تتحرك؟‬
‫أنا تكنولوجي، عملت في...‬
‫"(غوراف أوبيروي)، محب لتبديل الأوجه"‬
‫شركات برمجيات كبيرة وصغيرة طوال حياتي.‬
‫عندما ظهرت تكنولوجيا التعرف على الوجه‬ ‫المسماة "ديب فيس" في ديسمبر 2017،‬
‫رأيت أن هذه تلزم بحوثات متطورة كثيرة،‬
‫ووضعها في قطعة التكنولوجيا هذه‬
‫التي يمكنك تنزيلها وتجربتها.‬
‫تكنولوجيا التعرف على الوجه التي يشير إليها‬ ‫هي ظاهرة تلاعب بالفيديو حديثة،‬
‫حيث تُوضع وجوه المشاهير الإناث بسلاسة‬
‫على أجسام ممثلات راشدات في مقاطع إباحية.‬
‫فأردت أن أعلم قدراتها وحدودها.‬
‫قررت أن أختار "جون أوليفر" و"جيمي فالون"‬ ‫لأبدل وجههما.‬
‫مع "أوليفر" و"فالون"، النتائج مقنعة جداً.‬
‫"(جيمي فالون)، مقدم برنامج مسائي"‬
‫"(جون أوليفر)، مقدم برنامج مسائي"‬
‫استعنت بالكثير من مقاطعهم على "يوتيوب".‬
‫الخوارزمية... ما تفعله‬
‫هو أخذ المقطع وتقسيمه إلى لقطات منفردة‬
‫ثم تحول كل لقطة على حدة،‬
‫ثم تدمجها معاً ثانية لتكوّن مقطعاً،‬ ‫وهذا ما نحصل عليه.‬
‫الجودة جيدة جداً، لأن لدي الكثير‬
‫من بيانات التدريب‬ ‫يمكن للخوارزمية التعلم منها.‬
‫"أصلي - محول"‬
‫لهذا المشاهير أو السياسيون‬ ‫أو أي شخصيات عامة‬
‫أكثر عرضة لذلك.‬
‫الأمر سيان لأي شخص‬
‫لديه حساب عام على "إنستغرام"‬ ‫عليه الكثير من الصور السيلفي.‬
‫"(بازفيد)"‬
‫بينما تستمر التكنولوجيا في التحسن،‬
‫يصبح تمييز الحقيقي أكثر صعوبة،‬ ‫والتوزيع أكثر انتشاراً.‬
‫هل منصات وسائل التواصل الاجتماعي الرئيسية‬ ‫على استعداد لما هو قادم؟‬
‫لقد تواصلنا‬ ‫مع بعض شركات التكنولوجيا الكبيرة،‬
‫مثل "جوجل" و"فيسبوك" و"رديت"،‬
‫لنحظى بمحادثة بشأن هذا. لنجلس ونتحدث‬
‫عن المشكلات المختلفة والقضايا الشائكة،‬
‫ولم يوافقوا على فعل هذا.‬
‫بدلاً من ذلك،‬ ‫فقد أرسلوا بعض التصريحات العامة تماماً.‬
‫"نعلم أن تقييم صدق الصور والمقاطع المصورة‬ ‫يتطلب دقة أكبر، (فيسبوك)"‬
‫"إننا نطور وسوف نستمر في تطوير سياسات‬ ‫موقعنا الشاملة حسب الضرورة، (رديت)"‬
‫"(سان فرانسيسكو)، (كاليفورنيا)"‬
‫من يأخذ كل هذا على محمل الجد إذاً؟‬
‫مصدر لي، "أفيف أوفاديا"،‬
‫"توقّع أزمة المعلومات الزائفة"‬
‫خريج معهد "ماساتشوستس" للتكنولوجيا‬ ‫كان يحذر‬
‫من كيف أن تلك التكنولوجيا الحديثة‬ ‫تُستخدم لنشر معلومات زائفة.‬
‫"يتطلب الأمر خدعتين كبيرتين‬ ‫لإقناع عامة الشعب أن لا شيء حقيقي."‬
‫سواءً كنت مهندساً أو تعمل في مختبر أبحاث‬
‫أو من الناس الذين يحاولون جعل العالم أفضل‬ ‫بطريقتهم الخاصة.‬
‫من الصعب سماع: "انتظر.‬ ‫تلك المشكلة المثيرة التي تحاول حلها،‬
‫والتي قد تكون مفيدة حقاً لكثير من الناس،‬
‫ربما تدمر النظام العالمي أيضاً."‬
‫إن أمكنك مقابلة "مارك زوكربيرغ"‬ ‫أو أشخاص من "يوتيوب"‬
‫أو "جوجل" الآن، ويمكنك طلب أمر واحد منهم‬ ‫ليفعلوه العام القادم،‬
‫ماذا سيكون على رأس أولوياتك؟‬
‫نحتاج إلى تلك البنية التحتية المسؤولة‬
‫في كل شيء.‬
‫حتى لا يقول المديرون التنفيذيون التقنيون‬ ‫والباحثون:‬
‫"لم يكن لدي أي فكرة!"‬ ‫إن كانوا ضعافاً علمياً، يجب أن يكون هناك‬
‫طرف ثالث يمكنهم الذهاب إليه ليؤدي عملهم.‬
‫بالنسبة إلى "فيسبوك"،‬ ‫يجب أن يكون هناك فرق داخلية‬
‫تركز حصرياً على ذلك الأمر.‬
‫تحتاج إلى آليات تجميع معلومات تفاعلية،‬ ‫ولا أظن أن لدينا أي من ذلك الآن.‬
‫قريباً، من الممكن ألا نكون قادرين‬ ‫على تمييز الفرق‬
‫بين المقاطع المصورة الحقيقية والزائفة.‬
‫لذا يصبح السؤال، ما الذي سيحدث‬ ‫عندما لا يمكننا أن نثق فيما نراه‬
‫وما نسمعه؟‬
‫قوة هذه التكنولوجيا استثنائية‬ ‫ومثيرة للقلق على حد سواء.‬
‫ولكننا لسنا عاجزين‬ ‫في مواجهة كارثة المعلومات القادمة.‬
‫ما سيحدث في المستقبل‬ ‫يعتمد على ما نفعله الآن.‬
‫ترجمة "محمد بخيت"‬ سحب الترجمة د. محمد حباله muhammedhebala@yahoo.com